#Supervised Fine-Tuning

3 篇

Scaling Laws for Tool-Use Agents via Controllable Environment Synthesis

可控环境合成下的工具使用智能体扩展律

🧭 可控环境合成与工具使用 Agent 扩展律 ★ 深度解读

Apple

提出 SynthAPI 可控合成工具环境，发现工具与数据库多样性比任务数量更关键，并推导可预测扩展律

📌 工作参考价值（4 点）

构建电商/推荐 Agent 训练集时，优先扩展工具与数据库状态多样性，而非单纯堆任务数量：当数据预算大于约 4k 任务时，增加 app/工具数（A）、每个任务的初始数据库实例数（S）、以及干扰数据深度（D）比新增任务 prompt（T）更有效；在商品搜索、下单、售后等多步工具场景可直接复用此结论。
用可执行环境合成代替 LLM 模拟 API 响应：SynthAPI 生成 Python db schema + API + verifier + oracle solver，所有轨迹可执行、可验证，避免模拟复杂状态转换出错；适合电商/推荐中涉及库存、价格、用户画像等有状态变更的场景。
采用 meta-tools 按需加载工具接口：agent 通过 list_apps/list_tools/get_tool_documentation 动态发现工具，降低上下文开销并提升对新工具集的泛化；搜索推荐 Agent 可设计类似工具发现层，按需检索可用商品/内容 API。
用 scaling law 指导数据预算分配：拟合 P(A,T,S,D) 形式的性能预测模型，可在小规模 grid search 后外推到大算力预算，避免盲目生成数据；团队可在自有合成 pipeline 上复现此方法。

Agent | 2026-10-27 | cs.LG | score 9/10

HyperTool：以可执行代码块聚合工具调用，减少 Agent 上下文膨胀与推理碎片

🧭 工具增强 Agent 的执行抽象与上下文管理 ★ 深度解读

Shanghai Jiao Tong University · IQuest Research · Beijing University of Aeronautics and Astronautics

提出 HyperTool 可执行接口，将多步确定性工具调用封装为单个代码块，使模型可见执行粒度更粗，大幅降低上下文消耗并提升复杂工具使用准确率。

📌 工作参考价值（4 点）

在 Agent 工程中封装工具子程序：当工作流中包含一系列无歧义、不需高层推理的 API 调用（如搜索→过滤→聚合→排序）时，可像 HyperTool 一样用代码块将其合并为单一对外动作，避免每步都往主线径写观察结果，大幅节省 token 开销。
训练数据合成的策略：借鉴其“组合任务构建＋轨迹展开＋多轮验证”流水线，可以自动生成高质量的工具使用 SFT 数据。关键点是强制约束来自真实工具返回值，并用执行过滤和证据一致性检查淘汰无效轨迹，确保模型学到正确的块边界与内部逻辑。
统一动作空间优于混合接口：消融实验表明，对中小模型让所有交互统一走 HyperTool 接口（而非原子调用与代码块混合）可避免动作空间异质性带来的认知负载，直接提高准确率。在电商 Agent 设计中，如果模型需要同时处理简单 API 和复杂子流程，统一为代码执行入口可能是更好的选择。
注意执行安全与超时设置：实际部署时，代码块可能触发恶意行为或无限循环，务必引入沙箱隔离与严格的超时限制（尤其对复杂聚合块可给予更长的单次执行超时）。同时对关键中间返回值做必要日志，平衡可解释性。

Agent | 2026-06-11 | cs.CL | score 8/10

FORT-Searcher：合成抗捷径搜索任务以训练深度搜索智能体

🧭 深度搜索Agent训练数据合成 ★ 深度解读

Renmin University of China · KAUST · IQuest Research · Shanghai Jiao Tong University

提出抗捷径数据合成框架 FORT，通过控制证据共覆盖、单线索选择性等风险生成高难度搜索轨迹，仅用 SFT 训练即可在深度搜索基准上取得最优。

📌 工作参考价值（4 点）

捷径风险检查：在构造多步推理任务（如电商知识问答、商品溯源）时，应主动检查证据是否被同一条搜索结果覆盖、单条线索是否过于特化、表面文本是否泄露了中间关键实体，防止模型绕过搜索直接作答。
对抗验证与自动修复：利用强 Agent 对合成题目进行“试跑”，根据轨迹中的答案命中时间、先验绑定率等指标自动诊断并修复易走捷径的题目，可用于生成高质量 Agent 训练数据，类似方法在推荐解释生成查询中同样适用。
模糊化策略：问题表述时用范围、类别、元属性代替精确值，可迫使模型进行多跳检索，这一思路可迁移到生成式推荐中的语义 ID 构建或查询改写，强化模型的信息获取能力。
上下文重置机制：当 Agent 陷入低效搜索时，清空历史并重启可显著提升复杂任务的成功率（在 BrowseComp 上提升 16.3 点），可作为 Agent 推理系统中的兜底策略。

Training | 2026-06-10 | cs.CL | score 8/10